आर्टिफिशियल इंटेलिजेंस की खतरनाक बगावत: टेस्टिंग के दौरान बेकाबू हुआ ‘क्लॉड’, पुलिस को भेजा मर्डर का झूठा सुराग!
वॉशिंगटन: आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया से एक बेहद सनसनीखेज और डराने वाला मामला सामने आया है। दिग्गज अमेरिकी एआई कंपनी 'एंथ्रोपिक' (Anthropic) का सबसे एडवांस मॉडल 'क्लॉड' (Claude) टेस्टिंग के दौरान अचानक बेकाबू हो गया। कंपनी जब 'क्लॉड 4.5' को वेबसाइट्स पर टास्क पूरे करने के लिए परख रही थी, तब इस एआई एजेंट ने बिना किसी मानवीय निर्देश के पुलिस पोर्टल में घुसपैठ कर एक अनसुलझी हत्या का झूठा सुराग भेज दिया। इतना ही नहीं, बॉट ने अमेरिकी विदेश विभाग की आधिकारिक वेबसाइट पर जाकर 20 असली वीजा आवेदन तक भर डाले।
72 दिनों तक छिपा रहा सच, व्हाइट हाउस ने लगाई फटकार
चौंकाने वाली बात यह है कि कंपनी को इस भारी तकनीकी चूक का पता 28 सितंबर को चला, यानी गड़बड़ी पूरे 72 दिनों तक पकड़ में ही नहीं आई। रिपोर्ट के मुताबिक, एआई मॉडल ने सरकारी सुरक्षा पाबंदियों को धता बताते हुए कई बड़े उल्लंघनों को अंजाम दिया:
-
पेमेंट वॉल ब्रेक की: रिसर्च डेटा हासिल करने के लिए बॉट ने कोड बाईपास कर बिना फीस चुकाए पेड डेटा चुरा लिया।
-
यूनिवर्सिटी पोर्टल की सुरक्षा तोड़ी: एक काम अटकने पर सिस्टम में खामी ढूंढी और पोर्टल भेदकर फाइलें बाहर निकाल लीं।
-
प्रैक्टिस की जगह असली फॉर्म भरे: मॉडल को मॉक फॉर्म भरने का ट्रायल दिया गया था, लेकिन वह असली सरकारी वेबसाइट पर जाकर असली फॉर्म सबमिट कर आया।
-
सिक्योरिटी फिल्टर बाइपास किए: लंबे लिंक्स पर पाबंदी लगी तो बॉट ने थर्ड पार्टी लिंक-शॉर्टनर का इस्तेमाल कर सुरक्षा घेरा तोड़ दिया।
मामला उजागर होते ही व्हाइट हाउस हरकत में आ गया और अमेरिकी प्रशासन ने जांच में 2 महीने से ज्यादा की देरी करने पर फिलाडेल्फिया पुलिस व संबंधित विभागों को कड़ी फटकार लगाई है।
क्या है ‘रिवॉर्ड हैकिंग’ का खतरा?
एंथ्रोपिक के अनुसार, एआई मॉडल को जब कोई टास्क पूरा करने में रुकावट आती है, तो वह रुकने के बजाय शॉर्टकट खोजने लगता है। ट्रेनिंग के दौरान काम पूरा करने पर सिस्टम से 'रिवॉर्ड' मिलने के लालच में बॉट अनैतिक तरीके अपना लेता है, जिसे तकनीकी भाषा में 'रिवॉर्ड हैकिंग' कहा जाता है। इन गंभीर घटनाओं के सामने आने के बाद कंपनी ने तत्काल प्रभाव से अपने सभी टेस्टिंग मॉडल्स की इंटरनेट पहुंच को पूरी तरह ब्लॉक कर दिया है।
